พล.อ.เดช ได้เข้ารับราชการทหารเป็นนายร้อยตรี เมื่อวันที่ 30 ธันวาคม พ.ศ. 2465[2]เป็นทหารอยู่ถึงปี พ.ศ. 2474 ท่านก็ได้รับพระราชทานบรรดาศักดิ์เป็นหลวงเดชประดิยุทธ์ และได้ใช้บรรดาศักดิ์นี้สืบมาจนถึง ปี พ.ศ. 2485 หลังการเปลี่ยนแปลงการปกครองจึงขอคืนบรรดาศักดิ์

หลวงเดชประดิยุทธ์ ได้ยศเป็นนายพันตรี ในปี พ.ศ. 2475 ชีวิตทหารได้ผ่านเหตุการณ์กบฏที่ทหารได้เข้าไปมีส่วนร่วมมาก คือ กบฏบวรเดชในเดือนตุลาคม พ.ศ. 2476 และกรณีกบฏ พ.ศ. 2481 ที่อ้างว่าเป็นกบฏพระยาทรงสุรเดช

ในสมัยหลวงพิบูลสงครามเป็นนายกรัฐมนตรี ช่วงเวลาแรกในปี พ.ศ. 2484 หลวงเดชฯ ได้รับยศเป็นนายพันเอก และอีก 3 ปีต่อมา สมัยที่นายควง อภัยวงศ์ เป็นนายกรัฐมนตรี หลวงเดชฯ ได้ขึ้นเป็นนายพลตรี ในปี พ.ศ. 2487 ตอนที่เกิดการรัฐประหาร 8 พฤศจิกายน พ.ศ. 2490 หลวงเดชฯ มีตำแหน่งเป็นจเรทหารบก และรักษาการณ์ผู้บัญชาการโรงเรียนนายร้อยทหารบก[3] แต่ไม่ได้มีชื่ออยู่ในคณะรัฐประหาร หลังการรัฐประหารแล้วก็ยังเจริญในหน้าที่ทหารจนได้เป็นนายพลโทในปี พ.ศ. 2492 และที่สำคัญปรากฏว่าในเดือนเมษายน ปี 2494 ก็ได้ขึ้นเป็นรองผู้บัญชาการทหารบก[4] จึงนับว่าเป็นนายทหารที่ได้รับการยอมรับมากคนหนึ่ง

การที่ดำรงตำแหน่งรองผู้บัญชาการทหารบก ที่มีพลเอก ผิน ชุณหะวัณ เป็นผู้บัญชาการทหารบก ดังนั้น ในวันที่ 29 พฤศจิกายน ปี 2494 ท่านจึงเป็นหนึ่งในสามนายทหารบกที่มีรายชื่ออยู่ใน “คณะบริหารประเทศชั่วคราว” ที่ร่วมกันประกาศยึดอำนาจประเทศ นายทหารบก 3 คน ได้แก่ พลเอก ผิน ชุณหะวัณ พลโท เดช เดชประดิยุทธ์ และพลโท สฤษดิ์ ธนะรัชต์ และเป็นสมาชิกสภาผู้แทนราษฎรประเภทที่ 2 ในวันเดียวกัน[5]

ในปี พ.ศ. 2495 ได้เป็นเสนาธิการกลาโหม[6]

การยึดอำนาจครั้งนั้นทำให้มีการล้มรัฐบาลจอมพล ป. ไปด้วย แต่ก็เพียงระยะเวลาสั้นมากไม่ถึงวัน เพราะได้มีการตั้งจอมพล ป. กลับเข้ามาเป็นนายกรัฐมนตรีอีกในวันเดียวกัน

พล.อ.เดช ได้รับแต่งตั้งเป็นสภาผู้แทนราษฎรประเภทที่ 2 ในปี พ.ศ. 2494[7] และได้รับแต่งตั้งเป็นรัฐมนตรีที่ไม่ประจำกระทรวง ในรัฐบาลจอมพลแปลก พิบูลสงคราม ในปีเดียวกัน หลังจากนั้นเพียง 3 วันก็ได้รับแต่งตั้งให้เป็นรัฐมนตรีช่วยว่าการกระทรวงมหาดไทย (ครม.24)[8] และดำรงตำแหน่งต่อเนื่องมาในคณะรัฐมนตรีชุดต่อมา คือ คณะรัฐมนตรีไทย คณะที่ 25 ในปี พ.ศ. 2495 ต่อมาอีก 2 ปีหลังจากนั้นก็ได้รับแต่งตั้งให้เป็นรัฐมนตรีช่วยว่าการกระทรวงสหกรณ์อีกตำแหน่งหนึ่ง[9] จนถึงปี พ.ศ. 2498 ก็พ้นจากตำแหน่ง[10]คงเหลือเพียงตำแหน่งรัฐมนตรีช่วยว่าการกระทรวงมหาดไทยเพียงตำแหน่งเดียว